Inteligența artificială între rău și bine: ce spune unul din oamenii importanți din domeniu

Într-un interviu recent pentru StrictlyVC, CEO-ul și co-fondatorul OpenAI, Sam Altman, a vorbit despre viitorul AI, bun și rău, în cel mai vag mod posibil.

Altman a răspuns la întrebări despre OpenAI, creatorii popularului chatbot AI ChatGPT și instrumentul de artă AI DALL-E, precum și peisajul general AI. În timp ce cea mai mare parte a interviului este în mare parte o salată de cuvinte cu termeni din Silicon Valley, Altman și-a exprimat părerile despre cele mai bune și mai rele scenarii pentru inteligența artificială.

Altman a spus că este de părere că „în cel mai bun caz este atât de incredibil de bun încât îmi este greu să-mi imaginez” și că ar putea ajuta „la rezolvarea blocajelor și la îmbunătățirea tuturor aspectelor realității și ne-ar putea lăsa pe toți să trăim cea mai bună viață”.

„Cred că scenariul bun este atât de incredibil de bun, că suni ca o persoană cu adevărat nebună când vorbești despre asta.”

Sisteme rău intenționate

În ceea ce privește cel mai rău scenariu, Altman a dat un răspuns mai puțin însorit la potențialele pericole în cazul în care și când AI merge prost. „Cazul prost – și cred că este important să spunem acest lucru – este, ca, luminile să se stingă pentru noi toți”, a spus Altman. „Sunt mai îngrijorat de un caz accidental de utilizare greșită pe termen scurt”.

Altman a subliniat că nu este vorba despre „AI se trezește și decide să fie rău”, ci mai degrabă că este „imposibil să exagerăm importanța siguranței AI și a muncii de aliniere” pentru a preveni abuzul de sisteme, intenționat sau nu.

Am observat deja probleme cu instrumentele generate de AI, inclusiv ChatGPT, care pot fi folosite pentru a comite plagiat, a scrie e-mailuri de phishing și a răspândi informații greșite, precum și probleme legale care implică drepturile de autor cu generarea de artă AI. În mod frustrant, Altman nu a intrat în detalii. Având în vedere investiția de miliarde de dolari de către Microsoft în OpenAI, ar fi fost plăcut să auzim despre potențialele capcane care ar putea apărea cu instrumentele AI utilizate prost sau rău intenționat.